Vào mùa xuân năm 618, Vũ Văn Hóa Cập đã tiến hành binh biến sát hại Tùy Dạng Đế tại Giang Đô (江都, nay thuộc Dương Châu, Giang Tô), và tôn Dương Hạo làm hoàng đế. Khi tiến quân đến khu vực phía đông Thái Hành Sơn, Vũ Văn hóa Cập phái sứ giả đến chỗ La Nghệ để thuyết phục La Nghệ quy phục. La Nghệ đáp lại: "Ta là cựu thần Tùy thất", cho trảm sứ giả của Vũ Văn hóa Cập, phát tang Tùy Dạng Đế song chỉ trong ba ngày. Sau đó, hai thủ lĩnh nổi dậy là Đậu Kiến Đức và Cao Khai Đạo đều phái sứ giả đến thuyết phục La Nghệ quy phục, song La Nghệ xem họ chỉ là quân trộm cướp và từ chối. Thay vào đó, khi hay tin Lý Uyên đăng cơ ở Trường An và lập ra triều Đường, La Nghệ đã quyết định quy phục thông qua tướng Đường là Trương Đạo Nguyên (張道源). Khoảng tết năm 619, Đường Cao Tổ bổ nhiệm La Nghệ làm U châu tổng quản. Sau đó, La Nghệ đẩy lui một cuộc tiến công của Đậu Kiến Đức.

Vào mùa đông năm 619, Đường Cao Tổ chiếu phong La Nghệ làm Yên vương, ban họ Lý của hoàng tộc Đường cho La Nghệ. Khoảng thời gian này, La Nghệ đẩy lui một cuộc tiến công khác của Đậu Kiến Đức. Sau đó, vào mùa hè năm 620, Đậu Kiến Đức lại tiến công U châu, La Nghệ được Cao Khai Đạo cứu viện và lại đẩy lui Đậu Kiến Đức. Sau đó, Cao Khai Đạo thông qua ông đã dâng biểu quy phục triều Đường.

Năm 621, Tần vương Lý Thế Dân bắt được Đậu Kiến Đức, và Đường Cao Tổ đã quyết định xử tử Đậu. Trong một thời gian ngắn, lãnh địa của nước Hạ nằm dưới quyền kiểm soát của Đường, song sau đó các bộ tướng cũ của Đậu Kiến Đức đã nổi dậy chống Đường dưới sự lãnh đạo của Lưu Hắc Thát. Đường Cao Tổ phái một số tướng lĩnh suất quân tiến công Lưu Hắc Thát và lệnh cho La Nghệ công kích Lưu từ phía bắc. Tuy nhiên, Lưu Hắc Thát đã đánh bại tất cả các tướng Đường tiến đến, bao gồm cả La Nghệ, giành lấy các lãnh thổ nước Hạ khi trước. Vào mùa đông năm 621, U châu của La Nghệ rơi vào nạn đói, Cao Khai Đạo đồng ý cung cấp lương thực cho U châu. Khi La Nghệ phái những người già yếu đến Úy châu để tránh nạn đói, Cao Khai Đạo đã đối đãi tốt với họ. La Nghệ hài lòng, và đã phái 300 lính với hàng trăm cỗ xe và trên 1.000 ngựa và lừa đến Uý châu vận chuyển lương thực. Tuy nhiên, Cao Khai Đạo đã quay sang chống La Nghệ và đã giữ tất cả lại, từ bỏ quan hệ với Lý Nghệ và triều Đường. Cao Khai Đạo liên kết với Đông Đột Quyết ở phương bắc và Lưu Hắc Thát ở phương nam.

Năm 622, Lý Thế Dân suất quân tiến công Lưu Hắc Thát, La Nghệ dẫn quân hội với Lý Thế Dân tiến công đô thành của Lưu Hắc Thát tại Minh châu (洺州, nay thuộc Hàm Đan, Hà Bắc). Sau khi hai bên bế tắc trong vài tháng, Lý Thế Dân đánh bại Lưu Hắc Thát nhờ kế dùng nước Minh Thủy, buộc Lưu Hắc Thát phải chạy trốn đến Đông Đột Quyết, La Nghệ trở về căn cứ tại U châu. Tuy nhiên, cũng trong năm đó, Lưu Hắc Thát cùng quân tiếp viện của Đông Đột Quyết đã quay trở lại, La Nghệ không thể đẩy lui Lưu Hắc Thát, song Lưu Hắc Thát sau đó bị Thái tử Lý Kiến Thành giết chết vào đầu năm 623. Cũng vào mùa xuân năm 623, La Nghệ thỉnh cầu được nhập triều, Đường Cao Tổ chấp thuận và hậu đãi, bổ nhiệm ông làm 'tả dực vệ đại tướng quân'.